![[Édito] Quand la réalité dépasse la fiction](https://next.ink/wp-content/uploads/2024/10/Deadbot-300x145.webp "[Édito] Quand la réalité dépasse la fiction")
![[Édito] Quand la réalité dépasse la fiction](https://next.ink/wp-content/uploads/2024/10/Deadbot-1024x496.webp "[Édito] Quand la réalité dépasse la fiction")
Des choses qualifiées de pure fiction il y a quelques décennies (ou dans un passé proche), sont pourtant une réalité aujourd’hui. De la loi sur les robots à la gestion des réseaux sociaux et vos données après la mort, les sujets sont nombreux et inquiétants ; ils méritent que l’on s’y attarde dès à présent.
La réalité dépasse la fiction, rien de neuf me direz-vous ? C’est un fait depuis bien longtemps maintenant, bien que cela dépende de la réalité et de la fiction dont nous parlons. La fiction d’il y a 100 ans (dans les années 20, après la Première Guerre mondiale) n’a rien à voir avec celle d’aujourd’hui.
Les trois lois d’Asimov…
C’est à cette époque que de grands noms de la littérature de science-fiction sont nés. C’est notamment le cas d’Isaac Asimov (1920 - 1992), largement connu pour son Cycle des robots et ses fameuses « trois lois » qui ont tant inspiré d’autres auteurs/réalisateurs par la suite :
- Un robot ne peut porter atteinte à un être humain ni, restant passif, laisser cet être humain exposé au danger ;
- Un robot doit obéir aux ordres donnés par les êtres humains, sauf si de tels ordres sont en contradiction avec la Première Loi ;
- Un robot doit protéger son existence dans la mesure où cette protection n'entre pas en contradiction avec la Première ou la Deuxième Loi ;
Formulées dans les années 40, ces lois n’avaient aucune application pratique à l’époque. Avec l’arrivée des robots (sous toutes leurs formes) et le galop effréné ces dernières années de l’intelligence artificielle générative, on peut dire que la réalité est en passe de rattraper la fiction.
Mais nous sommes encore loin pour le moment d’une intelligence artificielle générale, c’est-à-dire capable de réaliser toutes sortes de tâches, y compris cognitives, à la place des humains. Une telle IA serait douée d’une forme de sensibilité ou de volonté… et c’est précisément ici que la réalité se heurte à la fiction, ou vice-versa.
Les intelligences artificielles qui animent les robots sont programmées par des humains pour effectuer des tâches précises. Si un drone doit larguer des bombes pour tuer des personnes, il le fera une fois la cible atteinte, sans « réfléchir » ou être bloqué par les lois de la robotique.
Partons du principe qu’une intelligence artificielle générale arrivera un jour. Quelles devraient alors être les « lois » à mettre en place ? Et, comment s’assurer de leur fiabilité ? Le film I, Robot montre comment des règles en apparences simples (celles d’Azimov) peuvent être détournées.
De Terminator à Matrix en passant par Tron, les réalisateurs s’en donnent à cœur joie sur les « dérives » des intelligences artificielles. Parfois pour assurer leur survie, parfois pour répondre de manière trop stricte aux règles en prenant le contrôle sur la vie des humains, incapables de la gérer correctement avec leur environnement. Dominer et asservir pour assurer la survie de l’espèce.
Il reste 77% de l'article à découvrir. Abonnez-vous pour ne rien manquer.
Déjà abonné ? Se connecter
Commentaires (33)
#1
Et si on devait payer pour passer d'un comportement à l'autre, comme sacrifier les passager ou les autres ? qui serait prêt à payer ? et combien...
Historique des modifications :
Posté le 14/10/2024 à 17h47
D'un autre coté, qui achètera une voiture s'il sait que dans le dilemme du tramway, elle préfère sacrifier ses occupants, alors que ce n'est pas le cas avec d'autres modèles de voitures ?
Et si on devait payer pour passer d'un comportement à l'autre, comme sacrifier les passager ou les autres ?
#1.1
#2
mais ça délire grave dans le coin ...
faut arrêter certaines substances.
Si on veux parler du réel, on va juste dire qu'un robot ne sera jamais qu'un outil ou une arme, du moins tant qu'il y aura des humains pour s'en servir, quand il n'y en aura plus, une autre espèce biologique plus adaptée prendra la place, ouf.
#2.1
N'importe qui ayant deja développé des fonctionnalités un peu complexe s'est retrouvé un jour avec un comportement inattendu (enfin surtout non anticipé).
Un peu comme les caractères spéciaux qui font planter iOS régulièrement, le gars qui avait fait immatriculer sa voiture NULL ou les trolls qui s'amusent à faire lire de fausses limitations de vitesse aux véhicules avec lecture par caméra.
#2.2
Pourquoi biologique ?
Historique des modifications :
Posté le 14/10/2024 à 23h42
Pourquoi biologique ?
#2.4
#2.5
Mais pourquoi « l'espèce » qui nous remplace ne pourrait pas être ces robots justement. L'IA peut très bien prendre le dessus sur l'être humain, si elle devient plus intelligente que lui…
#2.6
Les milliards de milliards d'insectes terrestres sont sans doute mieux adaptés que nous, bien qu'ils ne voyageront sans doute jamais bien loin dans l'espace, contrairement à ce peuvent faire des robots (pas des hommes).
En fait, oui, les robots que nous construisons aujourd'hui et qui s'auto produiront plus tard, peuvent être un prolongement de l'espèce mais ailleurs que sur notre vieux volcan mouillé.
Si tout se passe bien, que nous ne pourrissons pas trop le décor, nos descendants resteront peinards ici et les bots iront voir ailleurs pour nous raconter, c'est ce qu'ils font déjà.
#2.3
En tant qu'humain, on ne comprend pas souvent les systèmes. Système financier? Tous des pourris, ils gagnent trop. Système politique? C'est pas normal, tel parti a fait plus de voix mais a moins de siège. Système éducatif? Les profs sont nuls, ça avance pas (collège), les profs sont nuls, ils saquent (lycée).
Actuellement, on se focalise surtout sur l'objet IA, robot, en interaction limitée. Mais que se passera-t'il quand ils vont évoluer en masse, chacun avec leurs différences (limite leur "tempérament")?
Le sujet est réellement très intéressant. Exemple: j'utilise une IA pour m'aider à rédiger un rapport. J'envoie le rapport. Humainement, on "compense" les légères dérives/marque de l'IA. Mais si en face c'est d'abord une IA qui lit le rapport et en fait une synthèse: n'y a t'il pas une double dérive qui risque de dénaturer le contenu?
Nos IA sont entraînées à repérer des humains, des véhicules. Que se passera-t'il quand un robot désigné sur Robby apparaîtra dans les rues? Sera-t'il identifié à temps comme un obstacle potentiellement mouvant?
#3
Et hop. Pb résolu. Mais il n'y aurait pas eu de roman de Asimov, ce qui serait un crime grave.
#4
Par exemple, un robot va inférer la loi 0, en plaçant la préservation de l'Humanité plus haut dans la hierarchie que la vie d'un être humain.
Il va également se poser la question sur la succession de tâches, où chacune prise indépendamment ne présente pas de danger en soi, mais où toutes les tâches mis bout à bout (et parfois par des robots différents) vont engendrer une situation pouvant nuire à un être humain.
De même, dans un monde où plusieurs planètes ont été colonisées, Asimov revient sur le "flou" autour de la notion d'Humanité, lorsque des peuples peuvent évoluer indépendamment les uns des autres sur des siècles. Un robot se retrouve donc apte à faire du mal à un être humain, car il ne reconnait pas la personne en face de lui comme étant un être humain !
Asimov, c'est vraiment une lecture très riche à ce sujet :)
#4.1
Dans ce cas, dans l'article fallait il mettre "Les trois lois d’Asimov" ou "Les quatre lois d’Asimov" ?
#4.2
La 4e par contre n'ai connu principalement que des lecteurs d'Asimov.
C'est un peu comme les accords Toltèques. On parle toujours des 4 accords, alors qu'il y en a 5 ^^
#4.3
Sauf que la loi 0 donne tout son sens au reste (et à des robots presque immortels aux pouvoirs incommensurables qui préservent l'humanité d'elle même)
#4.4
Et bien justement, ces lois n'ont jamais été fiables, alors pourquoi s'y référer? et pourquoi seulement maintenant, Asimov nous prouvait à cette époque là qu'elles seront toujours imparfaites.
#5
#5.1
Historique des modifications :
Posté le 14/10/2024 à 19h25
je recommande également le jeu "Detroit: Become Human" developpé et réalisé par le studio Quantic Dreams. Le jeu est absolu fantastique et a une note extrêmement positives par plus de 110k personnes.
#5.2
#5.3
#5.4
#5.5
Mais le déclamer comme un message de pub en mode "nos clients témoignent" fait vraiment pas naturel.
Donc soit t'es un bot, soit t'es apprenti marketeux chez Quantic Dreams.
#5.6
#6
Papi il dit que c'est un affront à HAL9000 de 2001 l'odyssée de l'espace. (Et même à Robby le robot de la planète interdite).
#6.1
#6.2
je connais pas Robby, donc je ne sais pas pour lui
#6.3
C'est dans 2010 qu'on révèle le dilemme, mais c'est une entourloupette scénaristique.
#6.4
mais là où les T(800/1000/X ...) sont des évolutions d'armes humaines (la première version "à chenilles" présente dans le 3 est construite par des humains mais est contrôlée par skynet) construites par une IA (skynet), dans matrix je ne sais plus trop comment / à quel moment l'IA s'émancipe de l'humain (puis utilise les humains comme des "piles")
dans ces 2 cas "l'IA" / les robots n'ont plus aucun lien avec les humains, ni d'obéissance, ni de mission "pour le bien de l'humanité"
pour HAL9000, même si c'est une entourloupette, il a été construit par des humains, pour une mission "pour l'espèce humaine", et s'y tient, tant pis si des individus doivent y passer, et étant lui-même nécessaire à la mission, un humain tentant de le débrancher est une menace pour la mission
pour moi HAL9000 ne fait clairement pas partie des IA/robots dont on a perdu le contrôle
#6.5
HAL-9000 a sombré dans la névrose à causes d'ordres contradictoire. Il devait garantir le succès de la mission, il devait conserver le secret de celle-ci, et il n'a pas la droit de mentir aux humains.
En gros, le problème n'est pas HAL mais ses concepteurs.
#6.6
#6.8
par contre je suis pas certain si j'ai vu le film ou lu le bouquin d'abord, probablement le bouquin mais sans certitude.
(bon choix pour gunnm, que j'ai découvert bien 5 ans plus tard mais que j'ai dévoré, par contre zéro IA là-dedans, que des humains "augmentés" tous plus cinglés les uns que les autres, pas besoin d'IA qui pète les plombs pour détruire l'humanité, elle se débrouille très bien toute seule, mais je m'écarte du sujet
#6.7
#7
La France contre les Robots – Georges Bernanos (1947)
#8
Historique des modifications :
Posté le 15/10/2024 à 19h05
Robot par Topito
Posté le 15/10/2024 à 19h06
Robot par Topito (facebook)